Как понять, что ваша модель столкнулась с проблемой взрывающихся градиентов?
Градиент — это вектор частных производных функции потерь по весам нейронной сети. В процессе обратного распространения ошибки в градиенте могут накапливаться большие значения. В итоге такие элементы градиента могут переполнить тип данных, в котором они хранятся. Это и называется взрывающимися градиентами (exploding gradients).
Вот признаки: ▪️Высокое значение функции потерь. Отражает неспособность модели обучиться на данных. ▪️Скачки значения функции потерь. Показывают, что модель нестабильна. ▪️Функция потерь во время обучения может принимать значение NaN.
Также на проблему взрывающихся градиентов могут указывать: ▫️Быстрый рост весов модели. ▫️Значения NaN у весов модели во время обучения.
Как понять, что ваша модель столкнулась с проблемой взрывающихся градиентов?
Градиент — это вектор частных производных функции потерь по весам нейронной сети. В процессе обратного распространения ошибки в градиенте могут накапливаться большие значения. В итоге такие элементы градиента могут переполнить тип данных, в котором они хранятся. Это и называется взрывающимися градиентами (exploding gradients).
Вот признаки: ▪️Высокое значение функции потерь. Отражает неспособность модели обучиться на данных. ▪️Скачки значения функции потерь. Показывают, что модель нестабильна. ▪️Функция потерь во время обучения может принимать значение NaN.
Также на проблему взрывающихся градиентов могут указывать: ▫️Быстрый рост весов модели. ▫️Значения NaN у весов модели во время обучения.
#junior #middle
BY Библиотека собеса по Data Science | вопросы с собеседований
Warning: Undefined variable $i in /var/www/tg-me/post.php on line 283
Telegram is a free app and runs on donations. According to a blog on the telegram: We believe in fast and secure messaging that is also 100% free. Pavel Durov, who shares our vision, supplied Telegram with a generous donation, so we have quite enough money for the time being. If Telegram runs out, we will introduce non-essential paid options to support the infrastructure and finance developer salaries. But making profits will never be an end-goal for Telegram.
Mr. Durov launched Telegram in late 2013 with his brother, Nikolai, just months before he was pushed out of VK, the Russian social-media platform he founded. Mr. Durov pitched his new app—funded with the proceeds from the VK sale—less as a business than as a way for people to send messages while avoiding government surveillance and censorship.
Библиотека собеса по Data Science | вопросы с собеседований from ar
